Huyện Quang Bình được thành lập vào ngày 1 tháng 12 năm 2003 theo Nghị định 146/2003/NĐ-CP của Chính phủ Việt Nam trên cơ sở tách 12 xã: Bản Rịa, Yên Thành, Yên Bình, Bằng Lang, Xuân Giang, Nà Khương, Yên Hà, Tiên Yên, Hương Sơn, Tân Trịnh, Vĩ Thượng, Tân Bắc thuộc huyện Bắc Quang; 2 xã Tiên Nguyên, Xuân Minh thuộc huyện Hoàng Su Phì và xã Tân Nam thuộc huyện Xín Mần.

Ngày 7 tháng 12 năm 2010, thành lập thị trấn Yên Bình, thị trấn huyện lỵ huyện Quang Bình trên cơ sở toàn bộ diện tích và dân số của xã Yên Bình.